思享｜齐延平：论人工智能时代法律场景的变迁

来源

《法律科学（西北政法大学学报）》2018年第4期

齐延平

北京理工大学工信部智能科技风险法律防控重点实验室主任、科技与人权研究中心主任，二级教授、博士生导师，法学博士；国家社科基金法学评审组专家。兼任中国政法大学人权研究院博士生导师，山东大学法学院教授、博士生导师；中国法学会常务理事，中国人权研究会常务理事，中国法学会法理学研究会副会长兼秘书长等。曾任教育部法学类教学指导委员会委员（2013-2018）。入选教育部“跨世纪优秀人才”、享受国务院政府特殊津贴专家、第七届全国“十大杰出青年法学家”等。先后在《中国社会科学》《中国法学》等权威、核心期刊发表论文近百篇，代表著作有《人权与法治》《自由大宪章研究》等。主要研究领域为人工智能法学、宪法与行政法学、法学理论等。

 导     读

人工智能与非国家权力叠加，进一步加剧了国家功能变迁，政治国家中心主义开始衰退。“个人”已经并将继续深入地被“智能利维坦”客体化，“人—人”关系模式转化为“人—技术—人”关系模式，催生新的社会结构形成，国家与非国家力量、法律与算法、伦理与技术开始同构新秩序。自由和权利的主要威胁将是横向上的非国家力量而不再是纵向上的国家权力。法律场景发生深刻变化，需要重建“善”的维度，以平衡“权利优先”论；需要在法律技术意义上迎回的“义务本位”，以矫正“权利本位”，解决“权利失能”问题。

互联网、云计算、大数据、人工智能、区块链技术以及物联网技术的发明和应用，叠加进仍未完成的工业化和信息化进程，正在深刻改变着当下的经济关系、政治关系、社会关系和法律结构与形态，将人类文明带入了一个崭新的人工智能时代。大数据、人工智能技术在深刻改变人类生产、生活样态和存在、组织形式的同时，也深刻影响着人类精神世界。物质和精神世界的双重变化使得原本复杂的现实世界更加复杂，而大数据、人工智能还在现实世界之外向人类开放了一个前所未有、蕴含无限可能的虚拟世界，现实世界与虚拟世界互联互渗，就更令人目不暇接和无所适从。“人们的思想观念滞后，政策取向不清晰，伦理规制缺失，法律法规不健全，人类正处于巨大的不确定性和风险之中。”进入人工智能时代，国家功能如何分化？人际关系有何变迁？自由与秩序关系有何调整？法律应作出何种回应？类似问题需要认真对待。

当然，我们对上述问题的思考会限定在工具型人工智能时代——也就是人类智能相对于人工智能而言仍处于优势地位的时代。真正的强人工智能或超人工智能的关键点是“自主和情感”问题，而此问题的解决有待量子力学对人类情感的破译，而在目前看来，这一突破是遥遥无期的。在此情况下，强人工智能尚无被法律界纳入讨论的必要性。语言哲学大师维特根斯坦曾指出哲学正确的研究范围是自然科学的命题，“凡是能够说的事情，都能够说清楚，而凡是不能说的事情，就应该沉默”。而法学研究应该从哲学立场再后退一步：法律发展和法学研究首先应当以当下现实生活及其可能性共识为前提，对于科学技术领域的远期预测性命题则应保持适当距离，以避免对法律的稳定性造成不必要的冲击，与法律的保守性形成不必要的紧张关系。

法律与国家功能密切相关，其通过对人际关系的调整，实现对自由与秩序价值的维护。而大数据、人工智能技术发展引发国家功能变迁，改变现代人与人的关系，催生新的秩序样态，呈现新的自由风险；质言之，大数据、人工智能技术将引发法律赖以生成与存在的社会结构性场景发生重大变化，这必然要求法律及时回应和法律学人的高度关注。

一、人工智能引发国家功能变迁

近现代宪治与法治是建立在工业文明时代公民自由和政治国家关系基础之上的，现代生活的规则、秩序及统一性均以这一关系为支撑并从中获得解释，所以近现代以来的人类生活和学术研究是政治国家中心主义的。而当今世界已进入大变革大调整时期，经济全球化、社会信息化、文化多样化趋势向纵深演化，云计算、大数据、人工智能技术风起云涌、日新月异，现代生产方式、生活方式、存在方式正在发生颠覆性变革，现代国家功能和社会基本结构正在进行革命性重构，正像有的学者指出的那样：“这一技术科学将改变甚至颠覆人类现存生产方式和交往方式，由此出现一个以新的技术结构支撑新的社会结构的人类新时代。”笔者认为这一新型社会结构形态可以被称之为“智能利维坦”，在其中，政治国家中心主义将丧失现实的存在基础和理论研究上的解释力，国家影响与功能需要重塑。

政治国家遭遇挑战其实在人工智能时代之前就已经存在了。在现代早期，囿于交通、通讯技术的有限性，所谓的世界贸易、人类流动、人文交流乃至争端与冲突往往是在部分国家之间、在局部地区展开的。而伴随交通、通讯技术的发展，特别是战后的突飞猛进，世界才真正进入了互联互通的全球化时代。资本流、人流、物流、信息流在国与国之间纵横交错、奔流涌动，进入现代文明后期的“世界”映像与工业社会早期的“世界”映像已经全然不同了。全球化进程同时也是权力与权利重新组合、调整、分配的过程。二战以来，国际性机构、跨国组织和体育、教育、科技、文化、医疗、环保等领域的行业性组织雨后春笋般涌现，这些双边、多边、国际性官方机构以及跨国商业组织和行业协会实质上在行使着传统上应由政治国家垄断的权力，作为一个主权国家传统要素的领土、人口、主权在形式上看似没有变化，但其内涵已经发生了根本性改变，出现了国家权力的非国家化和私主体化趋势。政治国家正在两个方向或者说两条战线上作战：一是国家内部伴随个人权利发展、民粹主义兴起、各种分离思潮泛滥汇聚而成的一线，二是国家外部伴随超国家机构、跨国组织涌现而形成的一线。德国学者贡塔·托伊布纳认为这些兼具生产性和破坏性的力量导致了国家的功能分化。现代国家陷入了内部与外部双线同时施加的多重紧张关系之中，大各个国家在疲于应对不同程度内部压力的同时，也正在越来越紧密地被嵌入超国家机构、跨国组织权力编织而成的网络之中，独善其身、独行其是已经不可能了，尽管世界上仍有个别国家试图与外部世界实施边境、制度、生活方式的隔离，但其本身仍然不可能摆脱因其与外部世界紧张关系而导致的焦虑、恐惧的宰制。“国家”在其与内部和外部世界的博弈中正在向非传统型国家加速演变，政治国家中心主义思潮的衰退是必然的了。

正当政治国家面临内外部双线侵蚀，疲于应付政治权力非国家化与私主体化的时刻，科学技术最新进展又为其叠加上了更具深刻性的命题。互联网已经改变人们的生产、生活和存在方式，我们已经形成了对互联网难以摆脱的依赖性；大数据正在以人们难以想象的速度和深度介入人们的生活，我们已经被甩进了大数据海洋中；基于云计算和大数据的人工智能正在攻城掠地、高歌猛进，我们已经进入了能力与智力增强时代。信息与数据正在成为我们当下和未来赖以生存和发展的、类似于土地森林水力资源同等重要甚至更为重要的资源。处于开放、流动中的数据，给人们提供了新的致富机会，也提供了新的自由想象与社会关系重构的可能。数百年来的社会运行、国家行为均是建立在对传统资源和资本的分配与控制基础之上的，自由与权利的领域与边界也是由对资源与资本的占有份额所确定的。而信息化和人工智能自其诞生那一刻始，就内涵了颠覆工业文明时代的资本巨头、主流媒体乃至国家权力的可能性。大数据、人工智能时代数据资源的共享性、技术的透明开放性、算法的客观性，从根本上改变了国家存在的物质条件，动摇了其现代功能的设定目的与基础。

人工智能时代是万物互联的时代，是去传统中心化、中央化的时代，传统国家垄断性权力的私主体化、分散化趋势已不可逆转。农业文明时代、工业文明时代乃至信息化时代，经济活动的组织、社会的管理、国家的运转均呈现中心化特征。流水线、程控交换机、中央处理器是中心化的典型产物，政治国家中心主义也与之相伴生。而新经济形态则体现了分布式共享特征，而区块链技术的运用又将彻底消解所有交易中的“中介”组织和“国家”这一终极的中介、裁判机构的功能，比如伴随比特币的发行，各国央行的存在基础至少是存在方式与功能发生动摇将是不可避免的。掌握了绝对优势的技术类巨头，对共同体运转和人们生活的影响在许多方面已经与主权国家无异了。谷歌和百度的搜索结果排名，淘宝、京东、亚马逊的定向商品推荐在塑造我们的生活，智慧政府、智慧司法、智慧社会建设在将公权力运行导入算法之中。由是观之，公权力与私权利的界限越来越模糊了。公权力正在向横向维度分散，非国家化、私主体化、扁平化趋势日益明显，决策的多中心或者无中心趋势日渐加剧。

上述发展趋势体现在法律上就是规则制定权的分散化。人类的生活归根到底都可以归结为“规则”的生活，非国家行为体侵入传统国家主权权力领域主要就是通过制定“超国家规则”而实现的。技术规则构成人工智能时代的规则基干，任何国家所制定的相关法律法规，根本不可能改变基础性的技术规则，只可能以“承认”为主而不再是以“创制”为主，进而会进一步加深传统立法权、执法权和司法权的分散化。非国家组织主导、创制、推行的规则体系已成为与主权国家法律体系并行的体系，在某些领域甚至已经具有了上位法的属性。今天，一国有效的法律体系的生产者在形式上虽然还是该国的立法部门或者其他有权的规则形成机构，但在很多时候，“立法机关”在处理非国家组织体的标准、规则时，不过是在形式上履行法定签批手续罢了，在许多领域已不可能在实质意义上修改上述机构和组织的规则，至少在核心内容、主体内容上是如此。在一国有效法律体系的规则构成中，非国家组织体确立的标准与规则比重日益上升，其中最明显的领域是国际贸易规则的国内法确认，航空、航海、航天相关领域国际规则与国内法衔接，国际人权规则的国内法纳入，科技领域特别是大数据、人工智能领域规则的纳入。一国有效法律体系的执行者在当前无疑仍然是国家，但在越来越多的领域、非国家组织体、私权利主体事实上在行使本应由国家掌控的权力，比如阿里巴巴就在明显行使着传统的工商管理、违规处理、纠纷裁决与执行等权力。国际域名与IP地址管理机构（ICANN）已经制定了完备的纠纷解决规则、程序，并设立了仲裁庭，大的企业巨头和数据科技公司也纷纷制定规则，设立纠纷解决机构。这些看似仍属于民间性的、内部性的规则与纠纷解决机构在目前尚构不成对国家法律权威的挑战，但其形态和发展趋势却是非常值得关注的。法律的部分制定权、部分领域的核心规则与内容、部分执法权已不再掌握在主权国家手中，传统上属于公权力领域的法律制定与适用权（无论国际法、还是国内法）正被日益蚕食。托依布纳从宪治角度概括了两种现象：“一是宪法问题超越民族国家的边界，出现在跨国的政治过程之中；二是宪法问题跨越制度化的政治边界，出现在全球社会‘私人’部门之中。”在大数据、人工智能时代，这种现象就愈加明显。

〔德〕贡塔·托依布纳：《宪法的碎片——全球社会宪治》

陆宇峰译，中央编译出版社2016年版

政治国家正在向技术国家演化，一个智能利维坦正在形成。这一判断包含两层含义：一是上面提到的非国家性的技术集团正在分享、参与、染指国家传统权力的运作；二是国家自身也已经开始积极拥抱大数据、人工智能技术，的国家治理、社会治理必将更多地开始依靠大数据、人工智能技术来实现。伴随政治国家中心主义的衰落，以政治国家建构为目的的现代政治应作出必要调整。在一个权力日渐分散化和技术支持化、公开透明化的时代，国家权力的分工与制约已经不再是民主政治的主要问题了，传统以限制权力、防范权力腐败的宪制构造也就完成其历史使命了。新的问题是国家应如何重构其与公民及社会的关系，应确立什么样的人工智能社会宪法基本原则，以控制其导致的新的不确定和风险，履行对自由与尊严的守护之责。

二、人工智能改变人际关系

人与人之间的关系在社会科学研究中具有出发点性质和目的归结性质，以法律为研究对象的学问离不开对人际关系的思考与追问。我们在享有信息化和人工智能为我们开放出的新自由、新意义的同时，还需要追问：人工智能是否又会将人类甩入新的不自由之中？作为法律调整对象和法学研究对象的“人与人之间的关系”将会发生何种变化？“人工智能深刻影响着我们生活的方方面面，如何看待人和机器的关系、人和人工智能的关系、未来的发展方向，这些问题都需要我们密切跟踪和研究。”近代以来所形成的人际关系在人工智能文明时代将会发生重大变化。

人工智能的出现，较之以往的任何科学发现，有一个质的区别，那就是人脑对人脑的征服。在人类进化史上，200万年前类人猿进化出了额叶皮质，而人类与其他灵长类动物的根本区别就在于这一新的皮质的出现，因为这一新皮质主宰着语言与抽象思维能力。以往的科学发现和进步，究其实质而言，都不过是人脑的进化，都不过是在人脑进化所发明之物的辅助下，人的肢体功能的扩展罢了；而正在到来的人工智能文明，则将以人脑所发明之物反噬、反控人类为特征，这预示着人脑将被机器脑超越、征服。当然，我这里说的机器脑对人脑的“反噬与反控”指的是工具型人工智能在某些方面、某些领域对人类自然智慧与传统能力的超越，而并非未来学家所谓的具有自主意识的“强人工智能”或“超人工智能”对人的整体性超越。但即使是工具型人工智能的发展，已经在深刻影响“人”的形象，在改变“人”的内涵与外延，在将“人”转化为“自然—智能人”。

“原子化的人”“自由人”“理性人”“社会人”是近代以来一切社会理论的出发点和落脚点，无论是自由主义还是社群主义又抑或是全能国家理论，均是从对这些“人”的概念的阐释上，来建立其各自的逻辑起点的。但是，“智能利维坦”在最深层次上改变的，恰恰就是“人”的概念本身。人的定义有多种方法，既可以从生物学、宗教学、社会学、文化学上来予以定义，也可以从哲学、经济学、政治学、法学上来予以定义，而在“智能利维坦”中的个人已经被深深嵌入进了技术网络之中。人在创制、定义、应用互联网、云计算、大数据、人工智能、物联网的同时，作为主体的“人”也在被后者创制、定义着。人与智能之网已经形成了你中有我、我中有你的互联互融、互依互生关系；如若离开了这一网络的支撑，人类的生产、生活乃至存在都将成为问题，生命个体也会陷入精神分裂和存在危机之中。而社会发展的天平正在向智能技术一端倾斜，人将成为智能之网的附属物而不是主宰，这已经不再是危言耸听。“随着生物技术、智能技术的综合发展，人的自然身体正在被修补、改造，人所独有的情感、创造性正在为智能机器获得，人机互补、人机互动、人机协同、人机一体成为时代发展的趋势。”“人的机器化”与“机器的人化”向纵深发展，虽然我们仍然可以说抽象的“人类”仍然还是“智能利维坦”的创造者、主宰者，但是，具体的“个人”已经并且还将继续深入地被“智能利维坦”客体化。这也就意味着，“人”的内涵中需要加入智能技术要素，“人”将是传统的自由、理性、社会要素与智能技术要素的混合体，“人”的外延需要借助智能技术向所有可能的方向延展，“人”的存在意义需要借助智能技术从现实世界向虚实结合的世界延展。在机器的人化和人的机器化相生相长中，“人”将进步为——或者说将沦为——“自然—智能人”。当然，这并不是说要用此概念退换法律上的“自然人”概念，而是说作为实质上是法律创制、规定、赋予人格的、而非自然的法律“自然人”概念，在人工智能时代需要扩展其内涵和外延，需要重赋其新的法律人格。

“人”将被技术全面控制。人工智能通过自我学习、自我演化、自我升级之后所形成的智力与能力与人的传统能力相比具有不对称性，人类注定会进入技术全面控制人的时代。在工业文明到来的时候，有识之士也曾做出过同样的判断。但是在那个时代，人被技术所控制归根到底还是主观的选择——虽然不过是迫于生计被强制的主观选择。而在人工智能时代，作为个体的人将失去主观选择的现实可能性，技术对人的控制将是客观的、无可逃避的强制性控制。工业文明与人工智能文明都是理性的产物，但二者存在本质不同。对于前者而言，知识与理性是被收纳在一个个独立的个体中的，也就是说其形态是分散的、个体化的，知识体系、思想体系、科学体系不过是分散的知识与理性的简单汇集与加总；而就后者来说，知识与理性借助互联网、大数据、人工智能等技术被统合为一个整体了，统合叠加而成的能力并不是分散能力的简单加总，因为该领域中存在极其明显的“集群效应”，这个知识与理性体通过自我深度学习、自我升级，在特定领域已经发展出了人的自然智慧望尘莫及的能力。

陈云红、何霞: 《巨浪——全球智能化革命机遇》

电子工业出版社 2016 年版

至少在非情感性领域，相对于人工智能来讲，世界上最有智慧的人也将是无知的。人工智能正在向人类生活的所有领域快速渗透，人类进入了算法统治的时代，我们正在“完全自愿”地服从于“算法”的统治并不可避免地进入“智能利维坦”之中，个体能力在近乎万能的技术和超强的算法面前正变得越来越微不足道，在一切可编程化、可技术化处理的工作中，人力将不战而退；而在一切可智能算法化领域，人智将被淘汰。

“人”将生活于“设计的秩序”而非自生自发秩序之中。哈耶克作为现代社会自由秩序原理的集大成者，其思想的基石性概念是“自生自发秩序”，这一概念对工业文明时代的人而言，是极富想象力和吸引力的理论预设。但是，人工智能时代却是一个日渐远离自生自发秩序、日渐走进“设计的秩序”之中的时代，互联网、云计算、大数据、人工智能、区块链、物联网是人为设计的产物；在一定意义上，由这些人造物组合而成的“智能利维坦”还可以说是机器主导设计的产物。基于对建构论唯理主义的警惕和对进化论理性主义的坚守，哈耶克认为：“……亦即对社会进程做有意识的控制或引导的各种诉求，不仅永远不可能实现，而且只会导致自由的丧失，进而摧毁文明。”而当今人类文明的演进方向已出现了根本性调整和颠覆性逆转已是不争的事实，哈耶克所谓的“自由”的确正在丧失，他所谓的“文明”的确正在被摧毁，基于技术进化论设计出来的秩序正在摧毁哈耶克的基于自然进化论的自生自发秩序。

虚拟与现实互通互渗加剧了上述问题的复杂性。伴随大数据和人工智能的发展，作为个体的人被日渐深入地嵌入进了智能技术网络之中，智能技术亦同时向人身体、思维乃至心灵和意志深处浸入；由此，虚拟世界和实体世界的界限变得越来越模糊了，曾经明晰的社会关系也变得越来越复杂了。虚拟世界和现实世界融合中的人际关系与秩序显然不会再完全等同于单一的现实世界中的关系与秩序了，基于虚拟技术的“扩展现实”带来的影响将是深远而持久的。人工智能发展给人际关系带来了从未有过的确定性，因为传统国家权力依靠自然人执行，社会关系依靠“人与人”之间的关系个性化来处理，因此必然伴生任意性与随意性，而人工智能却可以利用技术规则的非主观化和与程序控制轻易解决此问题；但我们又可以说，人工智能给人际关系带来了更具挑战性的不确定性，因为人机交互环境系统本身是充满变数的，而我们对技术发展的可能未来和虚实结合世界的可能形态尚处于基本无知的状态。

基于上述几方面的变化，笔者认为在当下讨论人与人之间的关系，首先应关注人与技术的关系问题。哈耶克有言：“如果存在着无所不知的人，如果我们不仅能知道所有影响实现我们当下的希望的因素，而且还能够知道所有影响我们未来需求和欲望的因素，那么主张自由就无甚意义了。”颇具讽刺意味的是，哈耶克这一论断给了哈耶克式的“自由”以致命的一击。人的理性毕竟是有限的，我们不相信有无所不知之人，不相信谁能比我们自己更了解自己，不相信国家父爱主义，也不相信谁能替我们把我们自己的生活安排得更好。但在人工智能时代，大数据技术、机器人可以做到比我们自己更了解我们自己，也可以做到把我们的生活安排得比我们能想象得到的更好。因此可以说，在人工智能时代，“人—人”关系模式已经转化为“人—技术—人”关系模式。离开人与技术关系的思考，我们不可能把握人工智能时代人与人关系的实质。“人—技术—人”关系模式并不是要否定传统的“人—人”关系模式，其重要性在于提醒人们注意人工智能时代人与人之间关系的变化，特别是其多维性或者说多重关系叠加性。在讨论人工智能问题时，科技界和思想界一直有人主张“技术中立”原则，而事实上，技术背后一定站立着技术专家或者特定的利益集团；在此意义上，人与技术的关系的确可以最终还原为人与人的关系。的确，“人工智能现实而迫切的威胁，或许并非来自其本身，而来自其在‘人-人’关系中的应用方式，即人应用人工智能去控制、统治他人”。我们前面提到，弱人工智能在本质上仍然属于“人类工具”的范畴，在强人工智能或超人工智能时代到来之前，无论人工智能能力多么强大，人仍然是技术的主宰者。但是，那种认为“只要没有出离人与人之间的关系，人工智能呈现的问题与危机，就没有超乎人类已经面对过的控制与反控制议题。也就是说，人工智能的技术飞跃或者‘智能大爆发’带来的应用伦理问题，并不是新问题，而是一系列老问题的叠加”的观点，却是笔者不能同意的。如果认为“技术已打败人”论断是所谓的“技术”的自负的话，那么，那种认为既有伦理和法律经过修修补补依然可以应付人工智能时代问题的论断，则就是法律的自负、人的自负。

在日益复杂化、精巧化、智能化的技术王国中，在“机器的人化”“人的机器化”互促共进过程中，人与人的关系已发生深刻变化，人类已有的知识和理论模式已不足以提供足够解释力，已有的伦理和法律在很多方面无法有效规制其可能的负效应。这当中最为根本的原因在于现有法律本质上终归还是人类有限理性的产物，有限经验的产物，基于有限样本的产物，而大数据思维、人工智能是奠基于新的原理性命题之上的，比如“不是随机样本，而是全体数据”、“不是精确性，而是混杂性”、“不是因果关系，而是相关关系”，等等。大数据、人工智能时代的类似命题将彻底颠覆人与人之间的关系格局，颠覆社会生活秩序传统样态，这就需要我们彻底反思传统法律的规范构造。任何时代的法律最终调整的当然是人与人的关系，但在人工智能时代，法律应该从直接调控人与人的关系转向直接调整人与技术的关系、技术与技术的关系来达此目的。郑戈教授认为人工智能时代法律与伦理规则的制定需要多方合作，他指出：“它的制定或生成需要法律人和程序员、人工智能专家的合作，以便使算法进入法律，法律进入算法，从而使人工智能的基础操作系统符合人类的伦理和法律。”算法进入法律，法律进入算法，这是人工智能时代人际关系、社会结构发生变革的必然要求。深入把握人工智能时代社会结构本质，重构人际关系模型，是确立人工智能时代基本法理、基本伦理和法律规范、伦理规则的重要前提。

三、人工智能时代的秩序构建

人们梦寐以求的现代自由秩序建设尚未完成，而由少数天才创造的大数据、人工智能却已高歌猛进、呼啸而来。进入人工智能时代，我们将陷入远比工业文明时代更为复杂、更为艰难的困境。个体自由与国家强制二者之间的关系问题仍然困扰着我们；将国家权力关进制度笼子并将国家强制限制在最小可能的限度之内，仍然是国家面临的长期任务。一波未平而一波继起，现在新的问题又出现了，国家权力可以借助大数据、人工智能技术实现对每一个人的全方位、立体化、全天候彻底监控，而技术巨头又利用技术优势开始深刻染指公共权力。托依布纳在批判经济力量意欲主宰一切时指出：“对于任何一种真正的经济宪法来说，当旧的国家行动按照市场方式组织起来时，私有化就构成了新的挑战，因为威胁基本权利的如今不再是国家行动，而是私人行动。”大数据、人工智能领域的巨头在今天已经拥有了与国家讨价还价的能力与实力，在越来越多的领域，技术对每一个人的控制强度和广度实已超过了国家对人的控制。在这一趋势发展过程中，国家已不可能再拥有现实的终极权力了（理论上、形式上仍然享有），秩序的构建者和维护者已不可能再是单一的国家，秩序更多的可能是技术意义上的秩序了，或者说是技术支撑基础上的秩序。国家与非国家力量、法律与算法、伦理与技术应走向合作，开启新秩序的共建之路。

传统秩序是中心化、等级制、非共享性的，新秩序将建立在去中心化、扁平化和开放共享基础上。国家以法律维护秩序之目的，既是为了提供安全保障，更是为了提供人与人交往的信用基础，而方兴未艾的区块链技术则将提供不依赖于中央和公共权力的客观信用机制，这一技术的运用领域虽然目前还仅限于数字货币、金融与贸易等领域，但是其思路、思维和思想已经开始向社会各个领域扩展延伸。区块链技术作为可加密的不可篡改的分布式账本，以其算法的精妙和对互联网“去中心化”本质的顺应，业已成为互联分享经济的新引擎，“它深悟人性、包容善恶、鼓励劳作、保护财富，创造出对人人公平公正的信用机器、共识机制和价值网络；它是各种去中心化应用的支撑系统，将重新定义商业模式和组织形态，重新定义整个世界，成为互联网经济的又一次划时代的创新”。从区块链技术以及作为其应用的以比特币为代表的令人眼花缭乱的功能扩展中，我们可以看出私权利主体已经具有了强大的干预人们生活的能力、参与社会治理的能力乃至提供信用安全保障的能力，因而也就在事实上参与了经济秩序、生活秩序的创建。这就更要求我们摆脱传统的政治国家思维定式来思考人工智能时代的秩序问题，来重新定义“秩序”，理解“秩序”的内涵。新的财富将根植于大数据经济之上，新的世界将是不以政治国家为中心的，新的信用机制将是建立在点对点分布式共识基础上的。大数据、区块链技术支撑起的新经济形态一定会产生与之相适应的社会形态，并形成新型秩序结构和法律建制。

在新秩序的形塑过程中，还需要高度关注已经出现和可能会出现的目的背反现象，其中最重要的是新的强权专断与不平等现象。大数据、人工智能与其它传统技术一样，最核心的目的都是为了提高人的生产能力和生活质量，实现人的自由而全面的发展。但令人遗憾的是，人类历史上科学技术的突破与发展却往往伴随着不自由的加剧和社会不平等不公平程度的加深。与自由对应的一个重要概念是“强制”。“所谓‘强制’，我们意指一人的环境或情境为他人所控制……”在网络化的智能利维坦中，人们生活的环境与情境是由技术和技术规则搭建的，每一个人进入这一环境和情景看似是自愿的，但其实质是被强制的，至少我们已经被牢牢地锁定在了桌面操作系统并通过桌面操作系统被强制进入虚实一体的智能技术王国中。传统国家依靠权力对公民予以强制，而技术则以技术规则对所有人予以强制。而大数据、人工智能技术最鲜明体现了“优胜劣汰”“胜者通吃”定律，在智能利维坦背后和看不见的算法世界里，少数人在规定、控制、独享一切，而社会上的大多数人要么成了前人工智能时代的“遗民”，要么就成了人工智能的奴隶。新的秩序中遍布信息鸿沟、数字鸿沟、智能鸿沟、技术鸿沟、认知鸿沟、文化鸿沟，新的秩序注定是一种极其不平等的秩序。“迈入智能时代，人类创造了一个高度复杂、快速变化的技术系统和社会结构，然而，技术的发展不可能自动践履‘全民’原则，人工智能领域正在沦为经济、技术等方面的强者独享特权的乐土。”云计算、大数据、人工智能发展领域中存在因“马太效应”而形成的“收益递增”“加速回报”法则，网络规模越大，价值增速越大，吸引力就越大，参与者和使用者就会越多，网络和人工智能会变得越聪明，处于技术顶端的少数人也就越有利可图，也就会变得越来越富裕、越来越强大，而附着于此网上的大多数人只会越来越被“工具化”“客体化”“边缘化”，只会越来越穷、越来越弱。人工智能促进社会更公平的力量与引致更不平等的力量并存，这两股力量博弈的结果尚难预料，但其已经解构了并仍在解构着传统社会秩序。

新秩序的建构既需要摆脱政治国家中心主义的立场，又需要国家掌握主导权，二者是不矛盾的。大数据、人工智能时代涌现出的国家权力非国家化和私主体化是社会演进的结果，这是新经济形态和新的社会结构必然导致的结果，其必然会引发政治国家中心主义的衰退。为防范社会不平等问题，要确立人工智能的私人牟利性与公共物品性相平衡的思想，将“共享性”列为人工智能社会秩序建构的原则之一。又由于未来极强的不确定性和高风险性，建立新秩序的主导权就必须由国家而不能由私人控制，人工智能的私人控制必须转向公共控制（并不等同于公有制）。近现代以来与工业文明时代相适应的宪法和法律秩序，现在需要向适应人工智能文明时代的方向转化。

四、人工智能时代法律何以保障自由和权利？

万物皆互联，无处不计算。人工智能时代的人们不仅生活在现实世界之中，同时也还生活在虚拟世界之中。国家、社会、个体三者之间的关系在人工智能文明时代发生了根本性变革，个人更多情况下将不再是直接与国家、社会和他人发生关系，而是直接地与技术的链条并通过技术与技术掌控者和他者发生关系。这些都将开辟出“自由”的新领域并导致自由与秩序关系上的新问题。自由与秩序关系原理如果要继续为现代国家与法治建设提供指引和正义论基础，”就需要根据社会的技术性特征予以重构。人们如果想在智能利维坦面前享有自由与尊严，也需要对自由和权利理论及法律保障模式予以再造。

人工智能发展拓展了人的自由，为把“人”从其对现代社会“物”的依赖性当中解放出来提供了新的现实可能性。人类文明的新旧更替，归根到底是围绕着“人的需求升级”而展开的，狩猎文明、农业文明、工业文明主要还是为了解决人的衣食住行等基本物质需求问题，而“信息化革命主要是满足人的娱乐、社交、信息分享等精神需求，而正在酝酿的智能化革命更多的是满足个性化和自我实现需求”。在今天，基于重复性和简单逻辑的智力、体力工作都可以由人工智能所替代了，而伴随信息化与人工智能向纵深发展，在可以预见的将来，人们从一切体力劳动和大部分脑力劳动中彻底解放出来，这也是有可能并值得期待的。“智能机器人可以直接代替人从事各种劳作，特别是人们不情愿承担的‘苦役’。这不仅满足了人们自由全面发展所必须的物质需求，而且逐步把人从繁重的劳动中解放出来，普遍缩短了必要劳动时间，增加了宝贵的自由时间。”人工智能极大拓展了自由新领域，比如借助互联网人们在一定程度上才真正实现了自由的表达和无时空限制的交流。

当然，上述过程必然伴随着传统个人私域的萎缩和现代自由的丧失。现代自由主要指的是消极自由而非积极自由。“古代人的目标是在有共同祖国的公民中间分享社会权力：这就是它们所称谓的自由。而现代人的目标则是享受有保障的私人快乐；他们把对这些私人快乐的制度保障称作自由”，对现代意义上的自由而言，公域、私域的划分就是至关重要的，自由预设了由制度化保障的、他人不得侵入、干涉、控制的私人领域。

〔法〕邦雅曼·贡斯当：《古代人的自由与现代人的自由》

上海世纪出版集团2005年版

私域的概念与人格尊严、隐私权或私生活自我决定权等现代权利制度密切关联。而当今社会的显著特征之一就是私域的急速萎缩。在超国家机构、跨国组织、庞大的行业协会面前，社在日益精巧细密的国家监控体系面前，在智能利维坦面前，“个人私域”“隐私权“或“私生活自我决定权”等概念是否还有理论建构和制度建设意义，已经是一个令人怀疑的问题了，因为每一个人已成为信息上的透明人，已彻底被技术所控制。暂且不论超国家机构、跨国组织、大数据技术对人的自由的影响，单是哈耶克视野中的传统国家本身对自由的压制也仍然在进行之中。“……控制环境的整体力量观取代了个人自由观，而且在全权性国家中，人们亦已借自由之名压制了自由。”伴随福利国家、社会国等理念的提出与实施，世界各国近乎无一例外地在向全权性国家演化；而伴随全球性恐怖主义、民族分裂主义、宗教极端主义以及重大传染性疾病的持续蔓延和网络安全威胁的持续升级，在世界各个角落又重新出现了对警察国的心理需求，警察国精神与制度又有死灰复燃迹象。国家正在用福利与公民交换自由，用和平与公民交换服从，互联网、云计算、大数据技术、人工智能、人工智能技术正在建构起技术“利维坦”，人的自由、权利乃至主体性被剥夺程度正在加深，而这一切又是在全球化技术革命狂欢进程中不知不觉发生的。传统意义上的“个人私域”无论在现实世界还是在虚拟世界中都已经不存在了，哈耶克期盼实现“一些人对另一些人所施加的强制在社会中被减之最小可能之限度”的自由状态，而现实社会演化路线却是与之背反的，这是传统工业文明与信息化、人工智能文明叠加的必然的结果。

法治要处理的问题归根到底是社会主体间的自由、权利冲突问题，而在人工智能时代，自由和权利冲突的性质、冲突的强度都在发生变化。在政治国家中心主义的时代，自由与秩序的关系实质就是个人与国家之间的关系，为了处理此关系，自由主义者确立了权利优先原则。而在人工智能时代，部分秩序的建立者不再是政治国家，私权利行动者也参与了秩序的建构，自由的关系实质就成了一部分人的自由与另一部分人的自由的关系，比如大数据公司的科研自由、商业自由与个体自由的关系。当人与人的关系不是以“个人—国家秩序”关系为主轴衍生、拓展，而是随着互联网、大数据、人工智能发展而演变为以“个人—网络秩序”为主轴发生发散的时候，自由的主体与秩序的主体就不再是分离的，而是随时随地相互转化的，一个人既是自由的诉求者同时又可能是“强制”的制造者。自由与秩序之关系将会主要在横向上而非在纵向上予以展开，对自由的威胁主要是横向上的非国家力量而不再是纵向上的国家权力。而个人与智能秩序冲突的强度及其复杂程度显然要远超个人与国家的冲突，最终将发展成为“智能利维坦”不同权力层级之间、同一层级的不同子秩序间的冲突和激烈对抗。为解决这种冲突，法律的注意力将向调整人与网络秩序关系的方向转移，进而实现对人与人关系的调整。这就需要不同于工业文明时代的伦理学和道德理论来构建价值观，进而构建起必要的法律原则与制度模式，以控制人工智能时代的不确定性和风险。

伦理约束应当与智能技术同步。在大数据将决定一切、人工智能将主宰一切的世界里，人的自由与尊严还是可能和可欲的么？回答显然是肯定的。人类的道德选择能力在无数次历史险境中均有卓越表现，技术在发展进步，人类的道德与法律能力也能（也应）随之提升。信心来自于对“自负”的不断反思和对现实的积极回应。人的固有尊严和自由意志的不可侵犯性，必须成为人工智能时代的伦理与法律的最高原则。人与人的关系将被人与技术的关系所取代是不可避免的，在这里，重要的是不要再把科学技术仅仅理解为人的辅助性手段，或者过于自信地认为技术是人所发明的，所以也是永远能够被人所控制的。即使我们暂且撇开“毁灭”话题不论，人将被智能利维坦所彻底控制之趋势已是十分明显了。这就需要我们为之划定行为原则和伦理边界。阿西莫夫提出了机器人应遵循的三大法则，蔡雄山研究员提出了自由、正义、福祉、理论、安全和责任由高到低六大层面的原则，而IEEE则以人权优先、人类和自然环境好处最大化等为出发点，提出了人类利益、责任、透明、教育和意识四个基本原则；另外，也有越来越多的国家纷纷出台机器人伦理宪章与规范。这足以说明为人工智能设定基本伦理已成共识。IEEE标准协会高级顾问王亮迪博士则认为首先要有哲学思考，再做原则，再做标准，要将价值标准和伦理思考嵌套在智能系统的设计之中。并且为了保证价值标准互不冲突，应由不同国家、不同性别和宗教信仰的人员进行筛选，形成普遍认同的价值观和理论要求，再由自然—智能人员编程嵌套。这些实践探索和理性思考，本身就是维护自由与尊严的体现，也为自由与权利理论发展、法律规范再造提供了素材。

权利功能观应作出必要调整。为维护个体自由与权利，以法律限制国家公权力就成为现代法治的理论预设之一，而在超国家机构、跨国组织以及大数据公司等私权利主体已经拥有公共权力成为一个不争的事实背景下，个体自由和个体权利面临的侵害风险已不独是国家，宪法基本权利主要防御国家的功能也将扩展到防御上述机构、组织和公司侵权上来。今天的宪法基本权利理论仍然聚焦于对国家权力的防御，而其及于私主体的效力，被一个具有附属性色彩极强的概念——基本权利的第三人效力——所指代，在这个概念中，国家主要履行公法意义的司法面向上的保护义务，而私主体并没有被施加此项义务。笔者认为，是到了修正基本权利功能理论的时候了。“如果基本权利横向效力的真正任务，在于以宪法手段限制社会子系统的扩张倾向，就不能再坚持基本权利的国家中心性质，不能再将基本权利归诸私人行动者，不能再仅仅关注社会权力现象，不能再将基本权利界定为可受主观权利保护的自治领域。”在基本权利的水平层面问题中，基于国家中心主义和主观公法权利理论，基本权利必须绕道（或诉诸于）国家保护义务予以保护的路径已经难堪当下重任了。是故，我们必须寻求一种制度、组织、程序上的整体性解决路径。现代法治和权利制度的第二个预设是自由与权利首要的部分是消极性权利。但当在人工智能背景上思考自由与权利受侵害风险问题时，控我们就会发现如果继续持此观点，我们的自由与权利就会陷入万劫不复的境地。因此，基本权利既要防范国家又要防范私权利主体，自由与权利既是消极的也是积极的。无论是托依布纳所言传统社会子系统的构建与规则制定，还是方兴未艾的基于大数据的新型社会系统的构建及其规则的制定，我们都要参与其中，如果丧失了此种意义上的参与权，我们就将重新丧失主体性，沦落至技术奴隶的地位。

权利保障模式应当开新。“智能革命的出现，对当下的伦理标准、法律规则、社会秩序及公共管理体制带来一场前所未有的危机和挑战。它不仅与已有法律秩序形成冲突，凸显现存法律制度产品供给的缺陷，甚至会颠覆我们业已构成的法律认知。”与工业文明相适应，自由主义者倡导的“权利优先于善”的价值观取得全面胜利，在法律领域的表现就是“权利本位”论的确立，立法上明确权利、司法上认定侵权并施加制裁（赔偿）就成为最基本的法律保护技术和实践作业路线。而在日趋复杂化的智能技术社会、在虚拟世界和现实世界深度融合的世界中，权利的主体、权利的内容、侵权者及其责任的确定越来越困难，而智能技术越发展，人际、人机关系越复杂，利用传统法律手段析分权利、义务、责任也就更加困难，从权利出发推及义务的法律技术已不适应人工智能时代。比如，大数据时代备受关注的一个问题是隐私权保护，全球范围内现有的隐私权保护都是建立在资讯自我决定、若使用必须经“告知——许可”程序等法定准则之上的。在大数据时代，如何既能采集、存储、利用商业、科技、教育、医疗发展乃至国家治理、社会发展、社会服务所必需的数据，又能不侵害隐私就成为一个两难问题。当下法律作业的重心仍然是利用已有宪法和法律框架为大数据技术、人工智能技术发展可能导致的隐私权侵害提供防护。笔者认为这只可能是暂时的，因为开放共享是人工智能时代的元哲学、元思想、元命题，现有隐私权制度模式已无法回应新的发展，近些天沸沸扬扬的支付宝年度账单功能与芝麻信用挂钩事件就足以说明传统隐私保护手段是多么脆弱不堪了。正像有学者指出的那样：“在大数据时代，我们需要设立一个不一样的隐私权保护模式，这个模式应该更着重于使用者为其行为承担责任，而不是将重心放在收集数据之初取得个人同意上。”也就是法律应当在数据信息二次利用时为使用者如何收集、存储、利用数据信息所有者相关权利设定义务与责任规则。将资讯决定权赋予个体，在大数据时代不仅是无现实意义的，而且等于为国家和数据使用者免责了。隐私权保护的责任设定应当从个人转向国家和数据使用者。

“权利优先”是在“公民权利——国家权力”关系框架中的命题，在人工智能时代需要对此命题深入反思；我们需要迎回“善”端，重建“善”的伦理维度，以平衡“权利优先”论，以解决“权利”失能问题。在法律技术层面上，法律的色彩应由权利本位转向义务本位。在万物互联的时代“义务”是技术掌控者的义务，也是每一个人的义务，更是国家义务。在日趋复杂的人工智能社会中，在虚实一体的世界中，人的自由与权利是根本无法被描述的，力图通过已有概念的扩展、理论的再造涵盖新的问题，也是近乎不可能的，因为未来的世界是一个虚实融合、无限扩展、不断流动之中的世界。但每一个人特别是技术拥有者和国家应当如何行为、不应当如何行为却是比较容易确定的，其“当为”和“不可为”规则就可反推出人的自由与权利范围，就可以建立起保障自由与权利的坚实法律屏障。

结   语

近代以来的理性主义助长了我们的自信与自负，人们相信地球万物的进化路径、自然界的基本原理等已被人们所掌握，人类社会的发展规律已被揭示，哲学与伦理学的主要命题也都有了答案。但刚刚建立起来的人类自信伴随着大数据与人工智能乃至量子力学的发展，已经根基不稳甚至地动山摇了。“随着世界开始迈向大数据时代，社会也将经历类似的地壳运动。”但从历史发展来看，在面临生产生活方式、科技发展颠覆性变革的时刻，人类天生具有运用已有知识框架涵摄收纳变革力量的本能，或者干脆故意视而不见。科学引领发展，虽然我们不是科学决定论者，但我们又不得不承认一部人类科学史就是一部人类思想史，人们的科学理念决定了人们的自然观念、宇宙观念，进而决定了人的观念、自由的观念、秩序的观念和国家观念，被最终体现为法律观念与规则。伴随大数据、人工智能技术的深入发展，旧有的知识框架、理论命题、理论范式、社会发展规律（如果有的话）都将发生根本性变革。

人工智能文明的未来发展是一个难以预测的问题，但当下已经实现的和依趋势在不远的将来能够实现的，毫无疑问已经构成了我们的生活本身，这就构成了法律创制与法学研究的新场景。面对人类文明从未有过之大变局，我们不能再固守已有理论与规范，意图通过概念替换、重新赋义或者扩张解释等手法，实现旧瓶装新酒。虽然现有法律体系的大部分领域和法治的大部分疆域目前尚未陷入整体性危机，但世界变化和法律体系变革往往是由小事件所引起的，网络虚拟财产在民法体系中如何安放？“告知—许可”式隐私权保护制度在大数据时代还有价值么？类似于这些看似局部性的小问题，就足以引爆整个权利体系、法律体系的连锁崩塌，更不用说“我们在智能利维坦面前还有无自由可能”的终极追问了。已有宪治框架和法律体系的修修补补，已经无法满足科技发展和社会变革的需要了，也已不足以抵御人工智能发展可能带来的不确定性和风险了。法律应当对人工智能持一种开放态度，本着“最小化干预原则”推动技术与社会的创新。法律也应对人工智能持其固有的保守主义立场，在重新调整国家、社会与公民关系、人与技术关系、自由与秩序关系基础上，调整法律权利功能观和权利保障模式，实现对不确定性和风险的有效控制。

-推荐阅读-

《法理——法哲学、法学方法论与人工智能》杂志最新稿约

思享｜张翠梅：什么是公民的“德性”？

选粹｜思享｜域外｜写作｜学界

欢迎关注法理杂志

赐稿邮箱

[e-mail]

法理杂志官方“有赞”书籍商铺

长按识别二维码

挑选精品好书